Raport alarmant: Instrumentele de Inteligență Artificială precum Gemini și OpenAI, acuzate de rasism
Instrumentele populare de Inteligență Artificială sunt în centrul unei controverse crescânde, pe măsură ce un nou raport dezvăluie stereotipuri rasiste și discriminare lingvistică în modelele lor.
Inteligența artificială, acuzată de rasism
Potrivit cercetătorilor din domeniul tehnologiei și lingvisticii, instrumente precum ChatGPT de la OpenAI și Gemini de la Google sunt acuzate de discriminarea vorbitorilor de engleză vernaculară afro-americană (AAVE), conform raportului prezentat în The Guardian.
Cercetătorii au descoperit că aceste modele de Inteligență Artificială, folosite frecvent pentru sarcini precum selecția candidaților la locuri de muncă, au tendința de a prezenta stereotipuri negative în legătură cu vorbitorii de AAVE. Persoanele de culoare care utilizează acest dialect în vorbire sunt considerate mai puțin inteligente și mai puțin potrivite pentru anumite locuri de muncă, conform concluziilor raportului.
Valentin Hoffman, cercetător la Allen Institute for Artificial Intelligence, a avertizat că aceste modele pot penaliza candidații la locuri de muncă pentru code-switching între AAVE și engleza standard americană. În plus, modelele de Inteligență Artificială au fost găsite să ofere recomandări mai dure, inclusiv pedeapsa cu moartea, pentru inculpații care folosesc AAVE în declarațiile lor în instanță.
Incidentele recente, precum cele legate de Gemini de la Google, care a generat imagini distorsionate ale unor figuri istorice ca fiind persoane de culoare, au adus în prim-plan întrebări legate de etica și corectitudinea acestor tehnologii.
Ce spun cercetătorii
În timp ce grupurile precum OpenAI au implementat orientări etice pentru modelele lor, cercetătorii avertizează că rasismul ascuns în modelele de Inteligență Artificială este în creștere odată cu avansarea tehnologiei. Este imperativ ca dezvoltatorii să ia în considerare aceste avertismente și să acționeze pentru a corecta aceste deficiențe în modelele lor, mai ales în domenii critice precum sistemul juridic și selecția la locurile de muncă.
Inteligența Artificială (IA) reprezintă un domeniu tehnologic cu potențial enorm de a influența societatea într-o varietate de moduri, însă există îngrijorări tot mai mari cu privire la perpetuarea sau chiar amplificarea rasismului prin aceste tehnologii. Deși IA poate fi programată să fie neutra din punct de vedere al rasismului, ea este alimentată de date și algoritmi care reflectă și perpetuează uneori prejudecăți sociale.
Astfel, există riscul ca sistemele de IA să prezinte discriminare rasială în deciziile lor, să consolideze inegalitățile sau să producă rezultate injuste pentru anumite grupuri etnice sau culturale. Este crucial ca cercetătorii și dezvoltatorii să abordeze aceste probleme în mod activ și să implementeze măsuri pentru a asigura că tehnologiile de IA sunt utilizate într-un mod echitabil și responsabil, contribuind la combaterea rasismului în loc să-l amplifice.